Skill Is Not Document: A Query-Conditional Benchmark and Two-Stage Retriever for LLM Agent Skill Routing
技能非文档:面向LLM Agent技能路由的查询条件基准与两阶段检索器
🧭 Agent 技能检索与路由优化 ★ 深度解读
Tencent IMA Product Center · Tencent Youtu Lab
提出保留LLM拒绝信号作为技能兼容性负监督,构建中英双语技能检索基准R3-Skill,并设计两阶段检索器精排利用该信号
📌 工作参考价值(4 点)
- 构建Agent技能库时,不能简单当作文档检索,必须考虑技能间兼容性,应将前期LLM判断为“不可组合”的样本保留为负监督,用于训练精排模型。
- 推荐采用两阶段检索:粗排用双编码器快速召回,精排用交叉编码器,并将兼容性负信号编码为分级标签(如 label=1),通过 listwise 损失优化排序。
- 新增 Set-Compat 指标衡量检索集合的协同可用性,比单独的 recall/NDCG 更能反映 Agent 后续调用的真实成功率。
- 双编码器阶段注入兼容性负样本效果甚微(被梯度稀释),兼容性监督应集中放在交叉编码器精排阶段,这是架构选择的实践结论。